The Matryoshka Hypencoder
嵌套式超编码器：多尺度Q-Net的检索效率优化
🧭 检索效率优化 · 嵌套式表示学习
University of Glasgow
提出支持多种Q-Net大小的Matryoshka Hypencoder，域内参数减少7倍，吞吐提升1.6-3.4倍。
📌 工作参考价值（4 点）
- 动态Q-Net大小切换：在推荐系统的召回或粗排阶段，借鉴嵌套式Q-Net思想，根据服务时延要求或流量压力，在线灵活裁剪Q-Net的隐藏层维度，在不改变模型结构的前提下实现效果-效率的动态折衷。
- 预计算物品嵌入 + 轻量查询网络：将Hypencoder架构迁移到召回：离线预计算所有物品的向量表示，在线仅用HyperNetwork为当前用户/查询生成一个小型评分网络，替代固定相似度函数，提升表达能力的同时保持低在线计算开销。
- 多尺度联合训练：在训练时同时优化多个嵌套大小的Q-Net，可让一个模型支持多种精度档位，避免为不同性能目标维护多个模型，简化部署和AB实验。
- 适用于Agent调用的检索组件：当LLM Agent需实时检索知识库或商品库时，可采用此种高吞吐且可调节精度的检索器，通过调整Q-Net大小匹配Agent对延迟和精度的即时需求。